Meta-HAR: Federated Representation Learning for Human Activity Recognition

❏ 書誌情報／著者

Chenglin Li, Di Niu, Bei Jiang, Xiao Zuo, Jianming Yang

University of Alberta、Tencent所属

The Web Conference 2021 (WWW ’21) に掲載

❏ 論文の核心

人間活動認識 (HAR) におけるユーザー間のデータ異質性（活動タイプ、信号分布）に対応するため、連合型表現学習とメタ学習を組み合わせたMeta-HARフレームワークを提案、パーソナル化と新規ユーザーへの高い汎化能力を実現

❏ 主張と革新性

従来のFLがHARのデータ異質性により性能が劣化する課題を克服

共通の深層埋め込みネットワークをFLでメタ学習し、各ユーザーにパーソナル分類ネットワークを組み合わせる表現学習フレームワークを採用

ユーザーのHARタスクを個別のタスクと見なし、モデル不問型メタ学習（FedReptile）を用いて汎化可能な埋め込みネットワークを訓練

埋め込みネットワーク訓練にペアワイズ損失を使用し、データスパース性、異質性、新規アクティビティタイプへの対応力を強化

❏ 既存研究との違い

従来のFLベースHAR研究はデータ異質性やパーソナル化への対応が限定的

本研究はFL、メタ学習、表現学習を組み合わせ、特にペアワイズ損失を用いることで、データ異質性の高いHAR環境でのパーソナル化と新規ユーザーへの優れた汎化能力という課題を解決

❏ 技術・手法のポイント

FLサーバーと多数のモバイルデバイスで構成されるフレームワーク

モデルは埋め込みネットワーク（CNN+RNN/LSTM）とユーザー固有の出力層からなる

センサー信号の前処理（振幅系列、ウィンドウ分割、フーリエ変換）を実施

埋め込みネットワークを連合型Reptileアルゴリズムでメタ学習

埋め込みネットワークのローカル訓練には、サンプル間の類似度を学習するペアワイズ損失を使用

メタ学習された埋め込みネットワークに基づき、2段階のfine-tuningによりユーザー固有データでパーソナル分類モデルを適応学習

❏ どう検証しているか

公開データセット（HHAR、USC-HAD）と独自収集した大規模データセット（実環境のノイズ・異質性を反映）を使用

ユーザーをMeta-trainとMeta-testに分割し、新規ユーザーへの汎化能力を評価

集中型学習、FedAvg、FedReptile、ペアワイズ損失を用いないMeta-HARとの性能比較を実施

異なるfine-tuning戦略の効果も比較評価

評価指標として、Meta-trainユーザーとMeta-testユーザー双方での平均予測精度を使用

実験結果は、Meta-HARがデータ異質性の高い環境や新規ユーザーに対して、他の手法を大幅に上回る性能を示すことを実証

❏ 議論・今後の課題・著者自身の限界認識

Meta-HARはデータ異質性、新規ユーザーへの汎化、プライバシー保護といったHARの主要課題に対応できるフレームワーク

ペアワイズ損失とメタ学習・表現学習・パーソナル化の組み合わせが、特にデータ異質性の高いHARに有効

独自収集データセットの公開により、今後の研究開発に貢献

今後の課題として、通信効率のさらなる最適化が挙げられる

❏ 応用例／示唆

モバイルセンサーを用いた人間活動認識システムを、多様なユーザー環境で高精度かつ頑健に展開できる

GDPRなどのデータ規制下においても、大規模かつプライベートな活動データから効果的に学習を進めることが可能

各ユーザー固有の活動タイプや、同じ活動でも異なる身体動作パターン（信号分布）に対応した、高度にパーソナル化されたHARモデルを構築

システム利用開始時の新規ユーザーや、過去に経験のない新しい活動パターンに対しても、少ないローカルデータでの適応学習により高い認識精度を提供

ユーザーデバイス上のデータが少ない場合でも、グローバルな表現学習により効率的なパーソナルモデル学習を実現